📌Какой вектор лучше: Dense vs Multi-vector embeddings
Раньше хватало одного эмбеддинга на документ. Сейчас — этого уже мало. Нужна структура.
📍Dense-векторы (single vector per doc): — быстрые — экономные по памяти — слабо улавливают контекст — «плавают» при сложных запросах 👉 подходят для простого поиска
📍Multi-vector (late interaction): — вектор на каждый токен — сравниваются токены запроса и документа напрямую — лучше качество на сложных задачах — выше требования к хранилищу 👉 баланс между скоростью и точностью
📍Late interaction ≈ золотая середина: — быстрее, чем cross-encoders — точнее, чем dense-векторы
📍Примеры моделей: — ColBERT — для текстов — ColPali — multimodal: текст + PDF как картинки — ColQwen — как ColPali, но на Qwen2 (Apache 2.0, компактнее)
Если вы работаете с PDF-документами (таблицы, графики, изображения) — мультивекторные модели решают большинство проблем без «чaнкинга» и костылей.
📌Какой вектор лучше: Dense vs Multi-vector embeddings
Раньше хватало одного эмбеддинга на документ. Сейчас — этого уже мало. Нужна структура.
📍Dense-векторы (single vector per doc): — быстрые — экономные по памяти — слабо улавливают контекст — «плавают» при сложных запросах 👉 подходят для простого поиска
📍Multi-vector (late interaction): — вектор на каждый токен — сравниваются токены запроса и документа напрямую — лучше качество на сложных задачах — выше требования к хранилищу 👉 баланс между скоростью и точностью
📍Late interaction ≈ золотая середина: — быстрее, чем cross-encoders — точнее, чем dense-векторы
📍Примеры моделей: — ColBERT — для текстов — ColPali — multimodal: текст + PDF как картинки — ColQwen — как ColPali, но на Qwen2 (Apache 2.0, компактнее)
Если вы работаете с PDF-документами (таблицы, графики, изображения) — мультивекторные модели решают большинство проблем без «чaнкинга» и костылей.
The S&P 500 slumped 1.8% on Monday and Tuesday, thanks to China Evergrande, the Chinese property company that looks like it is ready to default on its more-than $300 billion in debt. Cries of the next Lehman Brothers—or maybe the next Silverado?—echoed through the canyons of Wall Street as investors prepared for the worst.
For some time, Mr. Durov and a few dozen staffers had no fixed headquarters, but rather traveled the world, setting up shop in one city after another, he told the Journal in 2016. The company now has its operational base in Dubai, though it says it doesn’t keep servers there.Mr. Durov maintains a yearslong friendship from his VK days with actor and tech investor Jared Leto, with whom he shares an ascetic lifestyle that eschews meat and alcohol.
Библиотека data scientist’а | Data Science Machine learning анализ данных машинное обучение from pl
